嵌入式Linux · TFLite 实战

🎯 30章 从入门到部署
树莓派 / 瑞芯微 / 全志
01课程导论与环境搭建
TFLite在嵌入式领域的价值 · 硬件选型建议(树莓派/瑞芯微/全志) · 交叉编译工具链安装 · SSH连接与文件传输
开始学习
02TFLite模型基础
从TF SavedModel到TFLite转换流程 · 量化原理(FP32→INT8) · 使用Python API转换与验证
开始学习
03C++ API核心组件
FlatBuffer模型解析 · Interpreter类详解 · Tensor与TensorInfo结构 · 内存分配策略
开始学习
04模型加载与内存映射
使用mmap加载模型 · FileCopy vs Mmap性能对比 · 模型文件完整性校验
开始学习
05张量操作与数据预处理
图像归一化(Mean/Std) · BGR转RGB · Resize与Crop · 数据对齐(Align)
开始学习
06推理引擎初始化
设置线程数(SetNumThreads) · CPU vs GPU Delegate选择 · XNNPACK后端启用
开始学习
07单张图像分类实战
MobileNet V1部署 · ImageNet标签映射 · Top-K结果解析 · 置信度阈值过滤
开始学习
08多线程推理优化
线程池设计 · Pipeline并行(预处理-推理-后处理) · 互斥锁与条件变量
开始学习
09GPU加速(OpenCL Delegate)
OpenCL环境检测 · Delegate创建与配置 · GPU vs CPU性能对比数据
开始学习
10NPU加速(RKNN/NNAPI)
瑞芯微RK3588 NPU部署 · NNAPI Delegate使用 · 自定义算子注册
开始学习
11模型量化实战
动态范围量化 · 全整数量化 · 量化感知训练(QAT) · 校准数据集生成
开始学习
12模型裁剪与蒸馏
结构化剪枝(Channel Pruning) · 知识蒸馏(KD)教师-学生模型 · TFLite兼容性检查
开始学习
13自定义算子开发
C++算子注册流程 · OpResolver配置 · 自定义Kernel实现(如自定义激活函数)
开始学习
14模型加密与保护
AES加密模型文件 · 运行时解密加载 · TEE(可信执行环境)集成思路
开始学习
15视频流实时推理
V4L2摄像头采集 · 帧缓冲队列 · 跳帧策略(Skip Frame) · FPS统计与显示
开始学习
16音频信号处理
MFCC特征提取 · 音频数据归一化 · TFLite Micro vs TFLite选择
开始学习
17传感器数据融合
IMU(加速度计/陀螺仪)预处理 · 滑动窗口 · 多传感器时间戳对齐
开始学习
18模型热更新(OTA)
差分更新(bsdiff) · 模型版本管理 · 回滚机制 · 原子写入
开始学习
19性能剖析与调优
TFLite Benchmark Tool · Profiler获取算子耗时 · 内存泄漏检测(Valgrind)
开始学习
20日志与调试系统
TFLite日志级别设置 · 自定义日志回调 · 断点调试技巧(GDB)
开始学习
21边缘端模型服务化
HTTP推理服务器(cpp-httplib) · RESTful API设计 · JSON序列化
开始学习
22MQTT物联网集成
MQTT客户端(Eclipse Paho) · 推理结果发布 · 远程配置订阅
开始学习
23TensorFlow Lite Micro
MCU部署基础 · 算子支持列表 · 内存池管理 · Arduino/STM32示例
开始学习
24Hexagon DSP加速
Qualcomm Hexagon SDK集成 · DSP算子映射 · 功耗与性能平衡
开始学习
25模型格式兼容性
TFLite vs ONNX vs OpenVINO互转 · Edge TPU编译 · CoreML转换
开始学习
26安全与权限管理
SELinux策略配置 · Capability降权 · 沙箱执行推理进程
开始学习
27持续集成(CI/CD)
GitLab CI自动化测试 · 模型回归测试 · 固件打包与发布
开始学习
28容器化部署
Docker镜像构建(arm64v8) · 多阶段构建 · 资源限制(cgroups)
开始学习
29项目实战:智能门禁系统
人脸检测(MTCNN)+人脸识别(FaceNet) · 活体检测 · GPIO控制电磁锁
开始学习
30项目实战:工业缺陷检测
YOLOv5s模型部署 · ROI提取 · 缺陷分类 · Modbus TCP上报PLC
开始学习